当分别从$ \ mathfrak {l} $ - subgaussian分布和重尾分布中，分别采样协变量和噪声时，我们考虑了线性回归系数的鲁棒和稀疏估计，并由对抗性和噪音污染异常值。我们处理两种情况：协变量的已知或未知协方差。特别是在前一种情况下，我们的估计器几乎达到了信息理论上的最佳错误绑定，而我们的错误界限比以前处理类似情况的研究更明显。我们的估计分析在很大程度上依赖于通用链条来得出急剧的误差界限。
translated by 谷歌翻译
我们考虑对线性回归系数的强大估计。在本说明中，我们关注的是从$ l $ subgaussian分布以未知协方差进行取样的情况，从具有有界的绝对力矩的分布中采样了噪音，并且两个协方差和噪音都可能受到敌人的污染。我们得出一个估计误差结合，该误差取决于稳定的等级和协方差矩阵的条件数，具有估计的多项式计算复杂性。
translated by 谷歌翻译
当产出被对手污染时，我们认为稳健的低秩矩阵估计作为痕量回归。允许对手添加任意输出的任意值。这些价值可以取决于任何样本。我们处理矩阵压缩感，包括套索作为部分问题，矩阵完成，然后我们获得锐利估计错误界限。为了获得不同型号的错误界限，例如矩阵压缩感测和矩阵完成，我们提出了一种简单的统一方法，基于Huber损失函数和核规范惩罚的组合，这是传统方法的不同方法。在本文件中获得的一些错误界限比过去的误差。
translated by 谷歌翻译
预计到2023年，物联网设备的数量将达到1,250亿。物联网设备的增长将加剧设备之间的碰撞，从而降低通信性能。选择适当的传输参数，例如通道和扩展因子（SF），可以有效地减少远程（LORA）设备之间的碰撞。但是，当前文献中提出的大多数方案在具有有限的计算复杂性和内存的物联网设备上都不容易实现。为了解决此问题，我们提出了一种轻巧的传输参数选择方案，即使用用于低功率大区域网络（Lorawan）的增强学习的联合通道和SF选择方案。在拟议的方案中，可以仅使用确认（ACK）信息来选择适当的传输参数。此外，我们从理论上分析了我们提出的方案的计算复杂性和记忆要求，该方案验证了我们所提出的方案可以选择具有极低计算复杂性和内存要求的传输参数。此外，在现实世界中的洛拉设备上实施了大量实验，以评估我们提出的计划的有效性。实验结果证明了以下主要现象。 （1）与其他轻型传输参数选择方案相比，我们在Lorawan中提出的方案可以有效避免Lora设备之间的碰撞，而与可用通道的变化无关。 （2）可以通过选择访问通道和使用SFS而不是仅选择访问渠道来提高帧成功率（FSR）。 （3）由于相邻通道之间存在干扰，因此可以通过增加相邻可用通道的间隔来改善FSR和公平性。
translated by 谷歌翻译
深度学习模型容易受到对抗性例子的影响，用于产生此类示例的对抗性攻击引起了相当大的研究兴趣。尽管基于最陡峭下降的现有方法已经取得了很高的攻击成功率，但条件不足的问题偶尔会降低其性能。为了解决此限制，我们利用了对这种类型问题有效的共轭梯度（CG）方法，并提出了一种受CG方法启发的新型攻击算法，称为自动结合梯度（ACG）攻击。在最新的健壮模型上进行的大规模评估实验的结果表明，对于大多数模型而言，ACG能够找到比现有SOTA算法自动PGD（APGD）更少迭代的对抗性示例。我们研究了ACG和APGD在多元化和强化方面的搜索性能差异，并定义了一种称为多样性指数（DI）的度量，以量化多样性的程度。从使用该指数对多样性的分析中，我们表明对所提出方法的更多样化的搜索显着提高了其攻击成功率。
translated by 谷歌翻译
如今，由于最近在人工智能（AI）和机器学习（ML）中的近期突破，因此，智能系统和服务越来越受欢迎。然而，机器学习不仅满足软件工程，不仅具有有希望的潜力，而且还具有一些固有的挑战。尽管最近的一些研究努力，但我们仍然没有明确了解开发基于ML的申请和当前行业实践的挑战。此外，目前尚不清楚软件工程研究人员应将其努力集中起来，以更好地支持ML应用程序开发人员。在本文中，我们报告了一个旨在了解ML应用程序开发的挑战和最佳实践的调查。我们合成从80名从业者（以不同的技能，经验和应用领域）获得的结果为17个调查结果;概述ML应用程序开发的挑战和最佳实践。参与基于ML的软件系统发展的从业者可以利用总结最佳实践来提高其系统的质量。我们希望报告的挑战将通知研究界有关需要调查的主题，以改善工程过程和基于ML的申请的质量。
translated by 谷歌翻译
我们提出了使用多级蒙特卡罗（MLMC）方法的变分推理的差异减少框架。我们的框架是基于Reparameterized梯度估计的梯度估计，并在优化中从过去更新历史记录获得的“回收”参数。此外，我们的框架还提供了一种基于随机梯度下降（SGD）的新优化算法，其自适应地估计根据梯度方差的比率用于梯度估计的样本大小。理论上，通过我们的方法，梯度估计器的方差随着优化进行而降低，并且学习率调度器函数有助于提高收敛。我们还表明，就\ Texit {信噪比}比率而言，我们的方法可以通过提高初始样本大小来提高学习速率调度器功能的梯度估计的质量。最后，我们确认我们的方法通过使用多个基准数据集的基线方法的实验比较来实现更快的收敛性并降低梯度估计器的方差，并降低了与其他方法相比的其他方法。
translated by 谷歌翻译